Phạm Sư Mạnh là người làng Hiệp Thạch, huyện Hiệp Sơn, phủ Kinh Môn (nay là phường Hiệp Sơn, thị xã Kinh Môn, tỉnh Hải Dương).

Là học trò giỏi của nhà giáo Chu Văn An, ông đỗ thái học sinh (tiến sĩ) đời vua Trần Minh Tông, được vua đổi tên là Phạm Sư Mạnh để tránh phạm húy thái sư Trần Thủ Độ (theo Đại Việt Sử ký Toàn thư - Kỷ nhà Trần - Minh Tông Hoàng đế).

Năm 1323, ông bắt đầu làm quan cho nhà Trần. Đến năm 1345 đời Trần Dụ Tông, có sứ nhà Nguyên (Trung Quốc) sang hỏi về việc "đồng trụ" (cột đồng) thời Hai Bà Trưng; ông được cử đi sứ sang đấy để biện luận, từ đó về sau, không thấy họ sang hỏi han gì nữa [1].

Về nước, ông lần lượt được cử làm: Chưởng bạ thư kiêm khu mật tham chính (1346). Nhập nội hành khiển tri khu mật viện sự (1358), Hành khiển tả tư lang trung (1359), Tri khu mật viện sự (1362), rồi thăng lên chức Nhập nội nạp ngôn...

Sau đó, sử không nhắc đến ông, chỉ biết về sau ông có nhận lệnh đi kén duyệt quân ở năm lộ để chấn chỉnh biên phòng vào năm 1368, và viết giúp văn bia cho chùa Sùng Hưng ở núi Vân Lỗi (Thanh Hóa) vào năm 1372.

Ông làm quan trải ba triều vua Trần là: Minh Tông, Hiến Tông và Dụ Tông. Về văn học, Phạm Sư Mạnh nổi tiếng ngang với Lê Quát, là bạn thân đồng môn (cùng học với thầy Chu Văn An) và đồng triều. Cả hai đều được người đương thời khen tặng [2].

Sau khi lui về ở ẩn, Phạm Sư Mạnh mất năm 1384.